导读：David Hendrickson撰文称Taalas 即将于4月26日发布一款面向 27B 级别模型 的 ASIC 硬件,相对于只支持8B的HC1，这款"HC2"本地大模型推理性能将达到 1 万 tokens/s。如果这个性能目标成立，那它就不是一张常规意义上的推理加速卡，而是一套把中型Agent专用大模型直接固化为一个专用计算平台。 这件事真正值得看的，不只是新产品发布时间，也不是又多了一张 AI 板卡。而是Taalas 正在把"模型硬化"这条路线，从 8B 级别的验证态，推到 27B 级别的产品态。 如果说 HC1 证明的是"模型可以被硬化进硅里"，那这次 27B 级别的新产品，真正要证明的，就是中型高质量模型已经开始拥有自己的硬件形态。 这不是 GPU 路线上的一次常规演进。更像是在回答一个很现实的问题：当模型已经足够强、足够会干活，同时系统代价又还没有失控的时候，是否值得直接为它造一台机器。 27B 正是这个问题第一次真正成立的尺寸。 ## 从8B到27B，Taalas在重写推理系统 HC1 的意义很大，但它更像第一次技术宣言。它证明了模型不一定只能以"权重文件 + 外部显存 + 通用加速器"的方式存在。它也可以直接进入硅，成为硬件结构的一部分。 但 8B 终究还是一个偏验证型的量级。它足够让人看到方向，却还没有真正踩进工业系统和企业流程最有价值的那一层。 27B 就不一样了。27B 已经不是"能不能跑"的问题。它讨论的是： - 能不能承担复杂流程。 - 能不能稳定调用工具。 - 能不能处理长链路任务。 - 能不能在企业和工业现场真正接住执行责任。 所以，这次 27B 级别 ASIC 的意义，并不只是规模放大。它意味着 Taalas 正在把"模型硬化"从 demo 区间推进到产品区间。 这件事一旦成立，行业对 ASIC、推理服务器、模型部署和 Agent 基础设施的理解，都会发生变化。 ## HC1真正改写的不是速度，而是推理系统的组织方式 我一直觉得，Taalas 不能简单理解为一家 AI 芯片公司。它更像是在做"模型原生计算机"。 今天通用推理系统的问题，并不只是算力不够。真正的问题在于，计算和存储是割裂的。模型权重在外面。KV cache 和状态在外面。硬件每做一步推理，都在不停地搬数据。 模型越大，系统就越依赖 HBM、先进封装、高速 I/O、板级供电、散热和越来越重的软件栈。从系统视角看，今天很多大模型推理平台，本质上是在用巨大的工程代价，去补偿 memory wall。 Taalas 的路线非常激进。它不是继续优化"怎么搬"。而是尽量取消"为什么还要搬"。 HC1 已公开的架构表述非常关键：模型和权重被固化进 mask ROM recall fabric，再配合 SRAM recall fabric 去处理 KV cache、adapter 和定制逻辑。 HC1 公开参数则是 TSMC 6nm、815 平方毫米、530 亿晶体管，首发直接装下 Llama 3.1 8B，单用户吞吐做到 17K tokens/s。 这意味着，Taalas 并不是在一颗通用张量芯片上跑一个模型。而是在做一颗"模型就是硬件结构"的芯片。 这件事的本质，不是优化器层面的小修小补。而是把推理系统的瓶颈，从"片外搬运"往"片上执行"重新推回去。 这也是为什么 HC1 看上去已经不像传统意义上的推理卡了。它更像一台只为一个模型服务的专用计算机。 ## 为什么工业落地可以下放到27B 我越来越强烈地感觉到，工业落地对模型规模的要求，和很多人想象得完全不同。 工业现场不是开放世界考试。不是让模型去和人类比百科全书式知识广度。也不是拿来追求极限泛化的"超级大脑"。 工业现场更像一台由规则、流程、接口、数据库、日志、状态机和异常分支拼起来的复杂机器。模型进入里面以后，真正要做的事情并不神秘。它要读文档、查规则、调工具、看工具返回结果。还要基于结果继续执行、必要时回退，最后把事情做完。 在这种链路里，模型规模当然重要。但它的重要性是有上限的。一旦模型已经具备足够好的指令跟随、工具调用、代码理解、上下文整合和多步执行能力，继续无上限放大参数，收益会明显边际递减。而成本、延迟、能耗、部署复杂度、维护复杂度，却还会继续上升。 这就是为什么我非常认同"大模型规模开始下放到 27B"这件事。这不是能力退化。这是产业逻辑成熟。 因为工业现场真正买单的，从来不是"最强模型"这个抽象概念。工业现场买单的是几件更现实的事： - 这个模型能不能稳定干活。 - 能不能在本地部署。 - 能不能长期上线。 - 能不能压低系统成本。 - 能不能和现有流程系统对接。 - 能不能在一个成本、功耗可接受的硬件形态里被复制。 27B 的价值恰恰在这里。它已经越过了能力门槛。但还没有重到让整个系统失控。 从工程角度看，这不是妥协。这反而是第一次真正尊重现实的系统实现。 ## 27B甜点位：能力够强，代价可控 我觉得这一代 27B 模型最关键的变化，不是"参数到了 27B"。而是它开始明显进入Agent可用、"执行型模型"的区间。 这个判断不是空的。最近，有人围绕 Qwen3.5-27B 做了一组非常贴近真实执行链路的测试：15 个场景、12 个工具、mocked responses、temperature 0。在这类 tool-calling 测试里，Qwen3.5-27B 做到了 15/15。 这件事的价值，不在于又拿了一个 benchmark 分数，而在于它说明 27B 级别的模型已经在"调用工具—读取返回—继续执行"这条链路上，表现出了足够强的稳定性。 这和工业落地的需求是同一件事。工业和企业环境真正缺的，并不是一个会说漂亮答案的模型。真正缺的，是一个会拿着工具把事情做完的模型。 它要会查库。会调 API。会操作浏览器。会读日志和工单。会写脚本。会根据工具返回结果继续往下走。还要在长链路里保持状态一致。 这时候，模型的价值就不再只是"回答问题"。而是"承担执行责任"。 一旦模型开始承担执行责任，硬件形态就必须跟着变化。因为系统价值的决定因素，已经不是单纯 token 成本。而是端到端执行吞吐、延迟抖动、状态一致性、稳定性和部署成本。 这正好是 Taalas 这条路线最有杀伤力的地方。它不是在把 token 做便宜一点。它是在试图把"执行型模型"变成一台稳定的机器。 ## 从模型结构看，27B适合被硬化 如果只是把 27B 看成"中等参数量"，其实会严重低估它。 真正关键的是，Qwen3.5-27B 这种模型，不只是参数大小合适。它的结构也很适合做软硬件协同。 第一，它是 dense 模型，不是 MoE。这点对 ASIC 特别重要。MoE 在软件世界里当然很诱人，因为激活参数少，推理看起来更经济。但到了硬件世界，问题就完全变了。MoE 带来的不是简单的参数节省。而是专家路由、缓存热点、负载不均、片间通信、时序复杂度和调度复杂度。 这些问题在 GPU 上可以用堆资源、堆 runtime、堆系统工程的方式去压。但如果目标是把模型本身做成硬件，dense 反而更干净。它的数据流更稳定。层间关系更稳定。流水更容易拉直。时序更容易压实。从硬件设计视角看，dense 模型的"规整"本身就是巨大优势。 第二，Qwen3.5-27B 的结构不是传统 full attention 直线堆叠。它大量采用 Gated DeltaNet，只在部分层保留 Gated Attention。这种混合布局意味着，不是每一层都按最重的 full attention 路径去消耗状态和带宽。对 ASIC 来说，这非常关键，因为它直接影响片上 SRAM 规划、状态组织方式、带宽预算和整卡功耗。 第三，它已经具备成熟的 agent 使用范式。这点很重要。有些模型适合做 benchmark。有些模型适合做 demo。但不是每个模型都适合被做成产品。一个值得被 ASIC 化的模型，至少要同时满足三件事： - 能力上，得真的能干活。 - 结构上，得能规整地映射到硬件数据通路。 - 软件生态上，得已经形成可复用的执行范式。 27B 落在这个点上，非常老到。 ## 这张卡大概率不是单die 这里真正值得深挖的，是 27B 这款硬件大概率会长成什么样。 如果只按最粗糙的方式，把 HC1 做线性放大，其实很难成立。HC1 已知是 8B 级别模型硬化，单 die 815 平方毫米，530 亿晶体管，N6 工艺。如果把这个架构原样拉到 27B，不只是面积不优雅，良率、封装、功耗和板级供电都会迅速恶化。 所以我更倾向于一个判断：27B 这款产品大概率不是单 die 方案，而是单卡双 die，或者"模型硬化 die + 状态/缓存 die"的协同方案。 这个判断并不是拍脑袋。它来自几个很现实的约束。 第一，HC1 已经非常接近先进工艺大 die 的舒适边界。继续做一个面积暴涨的超级单 die，并不是一个优雅的产品解。 第二，Taalas 这条路线的核心，本来就不是"一颗 die 无限制变大"。而是"模型固化部分"和"可变状态部分"逐步做结构性分工。 第三，27B 模型本身已经进入一个很适合系统拆分的区间。模型主体是相对稳定、可固化的。状态和缓存则可以根据上下文长度、工具调用链和执行模式，做更灵活的板级配置。 从产品工程视角看，这种拆分非常合理。也更接近一张真正可量产、可维护、可扩展的 ASIC 板卡。 ## HC2不会是HC1的线性扩展 如果让我基于 HC1 的公开路线做一个较保守的技术推演，我会这样看这张 27B 板卡。 最核心的部分，仍然会是 mask ROM recall fabric。也就是说，27B 模型中最稳定、最不需要频繁改写的主干权重，大概率仍然会被直接固化进金属层或等价的高密度固化存储结构里。这是 Taalas 路线的根。如果这部分不保留，就回到了传统"外部存权重 + 通用张量计算"的老路上。 第二部分，会是一套更强的 SRAM recall / state fabric。这部分的职责，不只是简单存 KV cache。更可能会承接： - 长上下文下的状态驻留。 - 少量全注意力层的状态组织。 - 工具调用链中的上下文拼接。 - adapter、微调残差或少量可配置参数。 - 调度和执行控制相关的快速状态交换。 这部分其实决定了 27B 产品能不能从"快"变成"能干活"。因为工业系统里真正难的，不是单 token 算得快，而是在复杂执行链里，状态组织能不能稳定。 第三部分，我怀疑还会有相当明确的控制与调度平面。HC1 面对 8B 时，很多事情可以靠高度定制流水硬吃。但到了 27B，尤其是进入 agent / tool use 语境之后，单纯的张量流水已经不够描述整个系统了。 模型执行、工具等待、状态回灌、上下文拼接、异常回退，这些事情会把"推理卡"慢慢拉向"执行计算机"。 所以我不太相信 27B 这张卡只是"更大的 HC1"。它更像是第一次把 Taalas 的模型硬化路线推向真正的系统级产品。 ## 吞吐到1万tokens/s，意味着什么 8B 的 HC1 公开口径是 1.7w tokens/sec per user。如果拿最粗糙的 dense 参数量去线性外推，27B 很容易掉到 5K 左右。但如果这次 27B 产品的目标真是本地约 10K tokens/s，那它背后绝不只是"多堆一点面积"。 它至少意味着三件事同时发生。 第一，模型结构本身更适合压低状态成本。Qwen3.5-27B 不是传统 full attention dense Transformer，这给系统释放了很大空间。 第二，板卡形态已经从"演示芯片"转向"产品芯片"。也就是说，吞吐提升不一定来自单 die 更强，而可能来自板级并行、更合理的状态组织、更高效的控制平面和更好的供电散热设计。 第三，Taalas 已经不是在单纯追求峰值 token 吞吐。它开始在追求另一件更难的事：在执行型工作负载下，把吞吐、状态和稳定性一起做出来。 这点非常关键。因为很多系统单看首 token 或短链路吞吐很好看，但一进入长上下文、工具调用、多轮状态链，性能和稳定性就会明显塌。如果 27B 产品还能在这种条件下维持高吞吐，那它的工程价值会远大于单一 benchmark。 ## 成本和功耗能击穿N卡吗？ 这部分我觉得不能回避。而且必须要算清楚。 如果完全基于 HC1 的公开尺度去做推演，27B 版本不可能是廉价玩具。先进工艺、大面积 die、定制 mask、封装、测试、板级供电、散热，样样都不便宜。 如果它真走单卡双 die 或近似方案，那 BOM 里最重的部分，至少会包括： - 两颗大面积模型相关 die。 - 较大规模的板载状态存储与支撑电路。 - 高质量供电系统。 - 强散热模组。 - PCIe 板卡级封装与测试。 如果只看硬件制造和集成，BOM成本 大概率会落在 800 到 1600 美元之间。这是基于 HC1 的公开架构、尺寸和 27B 产品形态做的一些推演。 功耗方面，如果 HC1 的 8B 已经进入高性能专用推理区间，那 27B 板卡若走双 die 或强状态系统配置，典型功耗会在300W 到 500W 之间。 这个数字看起来不低。但要看比较对象。如果它能把一个 27B 级别的执行型模型，以高吞吐、低延迟、本地稳定运行的方式塞进N卡里，那它的对象就是一整套 GPU 推理节点的系统成本。 从这个视角看，这个成本和功耗带并不夸张，反而有机会成为Taalas的杀手锏。 ## 工业买单，因为它更像落地产品 我不觉得这种东西最先会在极客圈爆发。真正会最先买单的，反而是那些模型固定、流程固定、质量要求固定、延迟要求也固定的场景。 比如工业运维、设备诊断、质检复核、工单流转。 比如浏览器代理、代码代理、测试代理。 比如边缘节点里的常驻自治 Agent。 这些地方未必要 200B、300B。它们真正要的是： - 一个足够强的模型核心。 - 一个足够稳的执行系统。 - 一个能被塞进现有业务架构里的硬件形态。 从这个角度看，大模型规模下放到 27B，不是降级。而是第一次真正对产业效率负责。也是第一次真正对硬件产品化负责。 ## 结语 HC1 证明了，模型可以变成硅。 如果 Taalas 的 27B 级别 ASIC 顺利落地，证明的就不只是"可以把模型烧进芯片"。它会证明另一件更有分量的事：中型高质量模型，已经开始配拥有自己的计算机。 到那时，模型不再只是部署在机器里的软件。模型本身，就是机器。 参考链接： - https://taalas.com/the-path-to-ubiquitous-ai/ - https://taalas.com/products/ - https://huggingface.co/Qwen/Qwen3.5-27B - https://x.com/yoheinakajima/status/2036925869655216161 - https://x.com/TeksEdge/status/2037395983647260843 - https://zhuanlan.zhihu.com/p/2017234636586123860 - https://mp.weixin.qq.com/s/ccr31W_S7tYXJekre2OhTQ